1
课程概览:生成式人工智能时代的不确定性
PolyU COMP5511Lecture 5
00:04

第5课标志着COMP5511的一个重大转折。我们正从经典计算的确定性逻辑和早期分类模型的监督式确定性,走向 生成式人工智能的概率内核。在本节课中,我们将探讨为什么现代AI模型输出的不是"事实",而是 概率分布,并揭示使大语言模型能够写诗、扩散模型能够从噪声中作画的内在机制。

1. 范式转变:从逻辑到概率

  • 超越IF-THEN:从僵化的规则转向灵活的统计似然性。
  • 确定性的终结:理解为什么GenAI的结果本质上是 非确定性的
  • 概率作为工具:"GenAI时代"如何将 不确定性视为一种特性 ——这是创造力的来源,而非需要修复的缺陷。

2. 创造的概率引擎

生成式AI依赖于从高维概率空间中进行采样。无论是生成文本还是图像,模型都在不确定性中穿行,以产生新颖的内容:

  • 大语言模型(LLMs):预测下一个词元时,不是作为一个单一选择,而是作为一个 可能性分布
  • 扩散模型:从混沌的 高斯噪声
  • 采样过程:如何利用随机性来避免重复且"机械式"的输出。

3. 在不可预测世界中的智能体

自主智能体必须在"开放世界"中导航,每个行动都带有一定程度未知的风险与回报。

幻觉的权衡
纯粹确定性的模型是安全的,但缺乏原创性思维。通过拥抱不确定性,我们激发了创造力,但同时也引入了 幻觉的风险——即模型自信地生成看似合理但错误的信息。
概念性采样逻辑
1
Define functionGenerate_Response(Prompt,Temperature):
2
Calculateprobability distribution for all possible next tokens;
3
Adjust distribution based on Temperature(Higher = more diverse, Lower = more focused);
4
Select next token using Weighted Random Choice;
5
Repeat until completion.
Probabilistic Modeling
Modern AI views the world through the lens of statistics rather than binary truths.
Gallery Image